Instagram ще разбие сексуалното изнудване на тийнейджъри
Instagram има за цел да затрудни потенциалните измамници и престъпници да принуждават тийнейджъри да изпращат голи снимки и да ги изнудват за пари.
Компанията обяви в четвъртък, че тества нови функции за ограничаване на тревожна тенденция, наречена финансов сексуален изнудване, която често е насочена към деца и тийнейджъри. След като голите изображения бъдат изпратени, измамниците твърдят, че ще ги публикуват онлайн, или на публични уебсайтове, или на емисии с новини, където техните приятели ще видят, освен ако жертвите не изпратят пари или карти за подарък.
През следващите седмици и сред подмножество потребители, Instagram каза, че ще въведе различни нови функции, като замъгляване на голи изображения, изпратени в директни съобщения, и информиране на потребителите, когато са взаимодействали с някой, който е участвал в финансов сексуален изнудване. Скоро след това инструментите ще бъдат достъпни за всички потребители по света.
„Това е наистина ужасяващо престъпление, което цели да накара хората да се почувстват сами и засрамени“, каза пред CNN Антигон Дейвис, директор по глобалната безопасност на Meta. „Беше добре документирано, че престъпността нараства и това е една от причините, поради които искаме да излезем напред и да сме сигурни, че хората са наясно с това, което правим, докато непрекъснато развиваме нашите инструменти.“
Споделянето на голи изображения без съгласие е проблем от години, обикновено сред хора, които търсят отмъщение на жертви, които познават лично. Но ФБР наскоро каза, че е забелязало увеличение на случаите на финансов сексуален изнудване от непознати, често започнати от измамници в чужбина. В някои случаи сексуалното изнудване е довело до самоубийство.
Най-новите инструменти на Meta се основават на съществуващите функции за безопасност на Meta, свързани с тийнейджъри, включително строги настройки, които предотвратяват обмен на съобщения между несвързани акаунти, увеличаване на известията за безопасност и опция за докладване на DM, които заплашват да споделят или изискват интимни изображения. Миналата година Meta се обедини с Националния център за изчезнали и експлоатирани деца (NCMEC), за да разработи Take It Down, платформа, която позволява на младите хора да създават уникален цифров отпечатък за изрични изображения, които искат да бъдат свалени от интернет.
Инструментите също идват, когато Meta, заедно с други социални мрежи, са изправени пред хиляди неправомерни смъртни дела за това как платформите са причинили вреда на млади потребители, от улесняване на продажбата на смъртоносни лекарства до разрешаване на хранителни разстройства и пристрастяване към социалните медии.
Как работят новите инструменти
Мета каза на CNN, че първо ще тества функцията си за защита на голотата в директните съобщения на Instagram. Когато бъде изпратена изрична снимка, платформата ще замъгли изображението и ще информира получателя, че съдържа голота. Сигналът също така ще напомни на потребителите, че не е необходимо да отговарят, и ще ги попита дали искат да блокират подателя. Ще се появи и известие, когато платформата открие, че потребител иска да изпрати гола снимка, като ги подтиква да преразгледат.
Инструментът ще бъде включен по подразбиране за тийнейджъри под 18 години, но възрастните също ще получат известие, което ги насърчава да активират инструмента.
Компанията каза на CNN, че технологията на Meta използва машинно обучение на устройството, за да определи дали дадена снимка съдържа голота. Meta вече забранява голотата в емисиите с новини и други публични зони на своите платформи.
Meta каза, че също така работи върху начини за идентифициране на акаунти, които може да участват в измами със сексуално изнудване, като открива и наблюдава вероятно поведение на сексуално изнудване. Това включва затрудняване на взаимодействието с тези акаунти, като блокиране на изходящи съобщения или предупреждаване на потребители, които може да са взаимодействали с акаунт, който е премахнат за сексуално изнудване. Съобщението ще ги насочи към подкрепени от експерти ресурси, според компанията.
През ноември Meta се присъедини към програма, наречена Lantern, управлявана от индустриалната група Tech Coalition, която позволява на технологичните компании да споделят информация за акаунти и поведение, които нарушават безопасността на техните деца. Компанията каза, че сега добавя интеграция с най-новите си инструменти за предотвратяване на сексуално изнудване; например, ако връзка произхожда от друга социална медийна мрежа, преди да бъде споделена в Instagram, другата платформа ще бъде уведомена.
„Това, което бих искал да видя постигнато с това съобщение, е родителите да са по-наясно с това престъпление и да отделят време, за да научат за него“, каза Дейвис. „Също така искам да се уверя, че родителите знаят, че е важно да уведомят децата си, че е добре да дойдат при тях, ако нещо се е случило. Те не трябва да се срамуват да излязат напред и има инструменти, които могат да помогнат."
